Quá trình khai quật khảo cổ học ngôi mộ cổ thời Hán ở chùa Bà Ngô và khu hang động Tràng An cho thấy thời Bắc thuộc Trường Yên là vùng đất có vai trò quan trọng, là một trung tâm quyền lực của Trường Châu và Giao Chỉ.

Thế kỷ X, sau khi dẹp xong loạn 12 sứ quân, Vua Đinh Tiên Hoàng đã chọn nơi đây để xây dựng cung điện đặt kinh đô nước Đại Cồ Việt.

Theo lý giải của các nhà nghiên cứu, Trường Yên hay Trường An đều chỉ cách gọi khác đi của danh từ Tràng An (muôn đời bình yên) - kinh đô nhà Hán. Tên Trường Yên dưới thời Đinh Tiên Hoàng bắt đầu được gọi Tràng An trong cụm từ "Hoa Lư Đô thị Hán Tràng An" khi ông dựng kinh đô Đại Cồ Việt tại Hoa Lư với hàm ý khẳng định kinh đô Hoa Lư như kinh đô Tràng An của nhà Hán. Từ năm 1010 vua Lý Thái Tổ dời đô về Thăng Long, cải Hoa Lư là phủ Trường An. Dưới nhiều thời đại vùng đất khu vực Ninh Bình ngày nay vẫn mang tên gọi là phủ Trường Yên hay phủ Tràng An.

Trước Cách mạng Tháng Tám năm 1945, Trường Yên là một tổng thuộc huyện Gia Viễn. Đầu năm 1946, tổng Trường Yên được đổi thành xã Tràng An thuộc huyện Gia Viễn, đến tháng 6 năm 1949 đổi thành xã Gia Trường.[1]

Năm 1954, xã Gia Trường được sáp nhập vào huyện Gia Khánh (nay là huyện Hoa Lư) và được chia thành hai xã Gia Trường và Gia Thành.

Năm 1962, hai xã Gia Trường và Gia Thành sáp nhập thành xã Trường Yên như hiện nay.